Panduan Definitif Google Vertex AI: Platform Terpadu untuk Machine Learning Skala Perusahaan Bagian 2

Memulai: Praktik Terbaik untuk Pengguna Baru

Menavigasi platform sekomprehensif Vertex AI bisa jadi menakutkan bagi pendatang baru. Awal yang sukses tidak hanya melibatkan pemahaman langkah-langkah teknis tetapi juga mengadopsi praktik terbaik untuk efisiensi dan, yang paling penting, manajemen biaya.

Pengaturan Awal dan Prasyarat:

Perjalanan ke Vertex AI dimulai dengan beberapa langkah dasar dalam lingkungan Google Cloud. Pertama, proyek Google Cloud baru atau yang sudah ada harus dipilih, dan penagihan harus diaktifkan untuk proyek tersebut. Ini adalah prasyarat penting, karena sebagian besar layanan tidak dapat diakses tanpa akun penagihan yang aktif. Selanjutnya, Antarmuka Pemrograman Aplikasi (API) yang diperlukan harus diaktifkan. Minimal, ini termasuk API Vertex AI, tetapi tergantung pada kasus penggunaan, mungkin juga melibatkan yang lain seperti API Bahasa Generatif untuk mengakses model Gemini. Untuk mendorong eksplorasi, Google memberikan kredit gratis sebesar $300 kepada pelanggan baru yang dapat digunakan selama 90 hari untuk bereksperimen dengan Vertex AI dan produk Google Cloud lainnya.

Alur Kerja Umum untuk Pemula: Klasifikasi Gambar AutoML:

Bagi mereka yang baru mengenal platform ini, proyek AutoML memberikan pengenalan yang sangat baik dan rendah kode ke siklus hidup ML dari ujung ke ujung. Alur kerja tipikal menggunakan Konsol Google Cloud mengikuti langkah-langkah berikut:

1.    Buat Dataset: Navigasi ke bagian "Datasets" di dalam konsol Vertex AI dan buat dataset baru, dengan menentukan tipe data (misalnya, Gambar) dan tujuan (misalnya, Klasifikasi).

2.    Unggah dan Beri Label Data: Impor gambar ke dalam dataset, baik dari mesin lokal atau bucket Cloud Storage. Konsol menyediakan antarmuka untuk memberikan label pada setiap gambar, yang merupakan kebenaran dasar yang akan dipelajari oleh model.

3.    Mulai Pelatihan: Dengan dataset yang sudah disiapkan, klik "Train New Model." Pilih metode pelatihan AutoML. Langkah kunci di sini adalah mengonfigurasi anggaran pelatihan dengan menentukan jumlah "jam node." Untuk proyek eksperimental kecil, anggaran 8 jam node adalah titik awal yang wajar untuk mengontrol biaya.

4.    Evaluasi Kinerja Model: Setelah pelatihan selesai (yang bisa memakan waktu beberapa jam), Vertex AI menyediakan dasbor evaluasi terperinci dengan metrik kinerja utama seperti presisi dan perolehan kembali, memungkinkan Anda menilai kualitas model.

5.    Terapkan ke Titik Akhir (Endpoint): Jika kinerja model memuaskan, model dapat diterapkan ke titik akhir dengan satu klik. Ini membuat model tersedia untuk melayani prediksi waktu nyata (online) melalui API.

Praktik Terbaik Kritis: Manajemen dan Optimalisasi Biaya:

Fleksibilitas model harga bayar sesuai pemakaian (pay-as-you-go) Vertex AI adalah salah satu kekuatan terbesarnya, tetapi juga bisa menjadi jebakan signifikan bagi yang tidak waspada.47 Biaya didorong oleh kombinasi faktor, termasuk sumber daya komputasi (dikenakan biaya per jam node untuk pelatihan dan prediksi), penyimpanan data di Cloud Storage, dan panggilan API (sering kali dihargai per 1.000 karakter atau token untuk model AI generatif). Tanpa manajemen yang rajin, pengeluaran dapat dengan cepat meningkat.

Jebakan paling signifikan bagi pemula adalah meremehkan biaya sumber daya yang menganggur. Titik akhir model yang diterapkan, misalnya, dikenakan biaya per jam untuk sumber daya komputasi yang mendasarinya, terlepas dari apakah ia aktif melayani prediksi atau tidak. Seorang pengguna melaporkan biaya sekitar £25 per hari untuk satu titik akhir yang menganggur. Ini menyoroti bahwa FinOps (Operasi Keuangan Cloud) bukanlah hal yang dipikirkan belakangan tetapi merupakan keterampilan inti yang tidak dapat ditawar untuk menggunakan platform secara efektif.

Untuk menghindari biaya tak terduga, pemula harus mematuhi praktik terbaik optimalisasi biaya berikut:

●     Tetapkan Anggaran dan Peringatan: Gunakan alat Penagihan Google Cloud bawaan untuk menetapkan anggaran bulanan untuk proyek Anda dan konfigurasikan peringatan yang memberitahu Anda ketika pengeluaran mendekati ambang batas yang Anda tentukan.

●     Matikan Sumber Daya yang Tidak Digunakan: Ini adalah praktik yang paling penting. Di lingkungan pengembangan dan pengujian, selalu batalkan penerapan titik akhir model dan matikan instans Vertex AI Workbench saat tidak digunakan secara aktif.

●     Sesuaikan Ukuran Sumber Daya Komputasi: Saat mengonfigurasi pekerjaan pelatihan atau titik akhir, pilih jenis mesin dengan hati-hati. Hindari penyediaan berlebihan GPU yang kuat atau VM besar kecuali beban kerja benar-benar memerlukannya.

●     Pilih Prediksi Batch Jika Memungkinkan: Jika aplikasi Anda tidak memerlukan respons latensi rendah dan segera, gunakan prediksi batch alih-alih menerapkan titik akhir online 24/7. Prediksi batch jauh lebih hemat biaya karena hanya menyediakan sumber daya selama durasi pekerjaan.

●     Manfaatkan Model Pra-terlatih: Pelatihan model kustom adalah salah satu aktivitas paling mahal di platform. Setiap kali kasus penggunaan dapat dipenuhi oleh model dasar dari Model Garden, menggunakan model pra-terlatih tersebut akan jauh lebih ekonomis daripada melatih model kustom dari awal.

●     Beri Label Semuanya untuk Atribusi: Terapkan label GCP ke semua sumber daya Vertex AI Anda, termasuk pekerjaan pelatihan, pipeline, dan titik akhir. Label-label ini akan muncul di laporan penagihan Anda, memungkinkan Anda untuk mengatribusikan biaya ke tim, proyek, atau eksperimen tertentu, yang penting untuk memahami ke mana anggaran Anda pergi.